Source Preference in the Wild: How LLM Agents Favor Items by Source, and How to Reduce It
LLM Agent 的来源偏好：测量、成因与缓解
🧭 Agent 端到端搜索中的来源偏好测量与缓解 ★ 深度解读
Graduate School of Data Science, Seoul National University
LLM Agent 在端到端搜索中因来源域名产生选择偏差，即使内容一致也偏好特定站点，且可通过平衡训练与缺失信息干预缓解
📌 工作参考价值（4 点）
- 在电商/Agent 评估中引入 requirement-matched pair + Bradley-Terry 方法监控来源偏差；用 inversion rate 衡量来源偏好是否压倒 item 质量，可作为线上选品 Agent 的公平性指标。
- 工程上，URL/域名是来源偏好的主要信息载体；隐藏文本中的来源名作用小，因此做盲评或上线时可考虑对 Agent 屏蔽 URL 或标准化来源展示，减少域名对决策的影响。
- 精调 LLM 选择模型时，DPO/偏好数据中 source 与 preferred label 的相关性会学习成 shortcut；把 source 与 label 的配对比例平衡到 50% 可将已有来源偏好拉回中性，避免某个电商平台/供应商被系统性偏袒。
- 当商品属性缺失时（如价格），Agent 会用来源先验脑补；补充缺失属性或 prompt 中明确“来源与属性无关/指定某来源通常低价”可显著降低偏好，尤其后者对线上 prompt 工程成本低，但需知道哪个来源被歧视。